SIMMER: Benchmarking Latent Failures in LLM Executable Planning with a World Model
SIMMER：基于世界模型的LLM可执行规划潜在失败基准测试
🧭 Agent 规划可靠性评估 · 潜在失败检测 ★ 深度解读
The Pennsylvania State University
提出符号化厨房世界模型与状态机执行器，系统评估并缓解LLM智能体规划中的潜在与不可逆失败。
📌 工作参考价值（4 点）
- 借鉴“潜在失败”概念，在多步决策流程（如促销路径规划、智能客服对话策略）中引入隐性错误检测，避免最终目标被无声破坏。
- 使用符号化状态机执行器 + 世界模型进行离线仿真，可精确审计计划中的状态传播（如库存变化、用户意图漂移）导致的不可逆错误。
- 采用反事实前瞻模拟（Counterfactual Foresight），让模型在生成每一步时主动预测并修正潜在的隐性危害，显著提升规划安全性。
- 在序列推荐或 Agent 交互中，不应只检查即时前置条件，需定义后执行审计规则，捕捉全局安全违规（如资源耗尽、死锁）。